Caine dilahirkan di Hospital St Olave, Rotherhithe, Surrey,[3][4] anak lelaki kepada Maurice Joseph Micklewhite (1899-1957) dan Ellen Frances Marie (née Burchell; 1900–1989).[5] Bapa beliau berketurunan Ireland dan merupakan penganut Katolik. Beliau dibesarkan sebagai Protestan.[6]

Caine mempunyai seorang adik, Stanley Micklewhite (1936–2013). Caine membesar di Southwark, London dan semasa Perang Dunia Kedua, beliau telah dipindahkan ke Runcton Utara berdekatan King's Lynn di Norfolk.[7] Selepas perang, keluarganya ditempatkan semula di Marshall Gardens.

Pada tahun 1944, beliau mendapat biasiswa ke Sekolah Hackney Downs.[8] Selepas setahun, beliau berpindah ke Sekolah Grammar Wilson di Camberwell (sekarang Sekolah Wilson di Wallington, London Selatan) dimana beliau meninggalkan sekolah itu ketika berumur enam belas tahun selepas mendapta sijil sekolah dalam enam mata pelajaran. Beliau kemudiannya bekerja sektika sebagai kerani untuk syarikat filem di Victoria Street dan untuk penerbit filem, Jay Lewis di Wardour Street.[9]

Bermula 28 April 1952, beliau dipanggil untuk melaksanakan khidmat negara sehingga tahun 1954, beliau pernah berkhidmat semasa Perang Korea.